4118云顶集团

新闻中心

切勿向AI投喂敏感数据！4118云顶集团接受央视采访，谈开源大模子清静危害

宣布时间：2026-01-09

浏览次数：5707

分享：

目今，AI大模子赋能千行百业，这位醒目又知心的“数字伙伴”正加速融入我们的一样平常生涯。当AI的触角延伸越广、嵌入越深，一些危害也随之而来。

国家清静部克日披露案例，个体单位因直接使用开源框架建设联网大模子，导致攻击者未经授权即可自由会见内部网络，从而引发数据泄露和清静危害。

案例显示，某单位事情职员在处置惩罚内部文件时，违规使用开源AI工具，由于电脑系统默认开启公网会见且未设密码，导致敏感资料被境外IP不法会见和下载。

那么，开源框架大模子指的是什么？保存哪些清静隐患？一样平常使用中又该怎样阻止数据泄露？一起来听专家解读。

作甚“开源大模子”？有哪些清静隐患？

4118云顶集团助理总裁、中国网络空间清静协会人工智能清静治理专业委员会委员王媛媛：开源大模子是指将模子的架构、参数、训练数据果真给客户免费使用的人工智能模子，现在互联网上开放的开源大模子很是多，有的善于推理，有的善于编写代码，有的擅优点理文本，尚有的擅优点理影像等等。好比，给它一个体检报告，可以资助我剖析身体有什么异常，应该怎样举行调解，会给出一些很是专业的建议。

专家体现，网民在使用AI工具时，往往忽略了一个问题，就是AI工具有贮存数据的功效。网民投喂给AI的任何文件、图片等数据，AI都会举行存储。

王媛媛：数据清静着实是开源大模子最大的隐患，这很可能会被各人忽略。上传到开源大模子的任何数据，大模子自身都会举行存储，这是它的事情原理，由于只有这样才华对数据做剖析。若是把公司内部较量神秘的数据上传到开源大模子，现实上这些数据就碰面临泄露危害。

网民将敏感数据投喂给AI工具后，这些被AI存储的数据是怎样泄露的呢？

首先，这些数据对AI工具的开发者是完全开放的，开发者可以使用权限看到这些数据。另外，现在AI工具许多都是开源的，黑客也会使用大模子自己的误差，攻击入侵大模子后台，进而获得数据。

�；な萸寰�，切勿给AI工具投喂敏感数据

AI工具具有数据存储功效，因此专家提醒，在一样平常使用中，切勿给AI工具投喂敏感数据。

王媛媛：一方面，在一样平常生涯中，通俗网民在正常使用互联网开源大模子时，要注重不要将小我私家的敏感信息、隐私信息上传到开源大模子中。

另一方面，企业使用开源大模子历程中，在训练数据时，一定要接纳私有化安排方法，也就是将所有数据都生涯在外地，阻止将一些内部数据上传到互联网上。而接纳这种私有化安排方法，响应地也要投入一些基础设施和专业团队来举行维护。

文章泉源：央视新闻客户端

相关阅读

1、AI天生视频以假乱真！4118云顶集团专家对话央视呼吁公众注重甄别，小心引流新套路

2、换脸换声、版权侵权......4118云顶集团专家对话央视记者，谈天生式AI被滥用该怎样治理

3、“有图”≠“有真相”！4118云顶集团专家接受央视采访，谈怎样区分AI造假图片

4、AI数据污染可能引发大危害！央视对话4118云顶集团专家展现背后原理，并给出提防建议

上一篇信创清静加速跑！4118云顶集团五款产品通过鲲鹏同辕开发手艺认证

下一篇政务大模子清静“必答题”怎么破？

最新运动

产品动态让智能体“一键上岗”~4118云顶集团「清静智能体一体机」抢鲜宣布！

2026-04-22

连忙审查

产品声誉 4118云顶集团防火墙一连26年位居海内市场榜首

2026-03-18

连忙审查

推荐新闻

天下首批、级别最高！4118云顶集团获AI服务清静能力评定“建设+检测”双证

审查详情

海内首家！4118云顶集团API清静智能体通过中国信通院数据清静智能体产品能力磨练

审查详情

4118云顶集团一连11届获CNCERT最高级支持单位，重点手艺领域入选最多！

审查详情

4118云顶集团荣获吴文俊人工智能科技前进一等奖

审查详情

4118云顶集团获河南省科学手艺前进奖一等奖

审查详情

推荐产品

解决计划

在线咨询

销售咨询>
手艺支持>
云服务支持>
售前支持>

在线留言

手艺支持>
售前支持>
培训营业>
清静服务>

客户服务热线

400-777-0777
7*24小时服务

联系邮箱

servicing@topsec.com.cn

扫码关注